CoworkOS:面向现实自动化的可扩展智能体同事框架
🧭 通用 Agent 运行时与多智能体协作 ★ 深度解读
Renmin University of China · Fudan University
提出三层架构(Main、Coordinator、Subagents)的通用长时程智能体运行时,支持人机共享工件与持久状态,多个基准上超越主流框架
📌 工作参考价值(4 点)
- 职责分离与异步委派:借鉴 Main-Agent 保留全局上下文、Subagents 隔离执行长任务,通过 Coordinator 的 durable queue/inbox 实现同步/异步委派,避免长上下文爆炸;可用于搜索推荐多 Agent 系统中的深度调研、批量数据分析、实验监控。
- 持久工作区与语义记忆:用 memory.md、task.json、checkpoint 记录目标、决策和未完成任务,支持跨会话恢复和上下文重建;适合电商推荐中跨天 AB 测试跟踪、策略迭代和模型训练监控。
- 共享应用资源与版本控制:人类和 Agent 通过 revision protocol 直接编辑同一 artifact(如 query 规则表、策略配置),冲突检测保证可审计;可用于人工修正搜索 query 模板或推荐策略,让专家反馈直达工作产物。
- 后台 Jobs 与监测机制:长时间训练/构建作为持久 Job,保留日志和状态,模型空闲时可唤醒;可迁移到推荐模型训练流水线、特征工程任务的状态管理,减少重复启动成本。
ParetoSaddler:面向质量与成本的智能体 Harness 帕累托优化
🧭 Agent 系统调优 · 多目标优化
University College London · Pohang University of Science and Technology · Southern University of Science and Technology · Southeast University · Microsoft
分离中间候选提升与最终部署选择,用 Bayesian bootstrap Pareto 支持联合优化 Agent 质量与成本
📌 工作参考价值(4 点)
- 在 Agent/RAG 优化流程里引入 Pareto 支持度而非单目标打分:电商搜索/推荐 Agent 常需同时优化答案质量与 token/API 成本,中间迭代可先接受任一维度的可信提升,避免高质量但高成本的中间方案被过早丢弃。
- 用 Bayesian bootstrap 对多次执行结果做显著性过滤:LLM 评估噪声大,只保留跨 run 有稳定增益的 harness 候选,能减少线上实验浪费;可直接用于 prompt、tool 选择、中间件参数的 A/B 调优。
- 将候选提升与部署选择解耦,保留 Pareto 前沿而非单一 best:便于业务按实时的成本/质量约束从前沿选配置,例如大促期选低成本兜底、高价值用户选高质量方案。
- 可迁移到推荐 Agent 的 harness 搜索:固定模型权重,只优化 prompts/tools/control logic,通过重复执行与 Pareto 提升做低成本多目标迭代。
RoboArchitect:自动化设计带持久记忆的机器人 Agent
🧭 Agent 自动化设计与持久记忆
Stanford University
用 coding model 自动迭代优化机器人 agent harness,无需更新策略权重,大幅提升跨场景成功率
📌 工作参考价值(4 点)
- 借鉴「冻结模型 + 外围 harness 优化」范式:在推荐/搜索场景中,可以把已训练好的排序模型或 LLM 当成 frozen policy,通过代码化的决策逻辑(何时调用模型、如何融合特征、如何处理输出)进行自动迭代优化,避免频繁重训模型,尤其适合快速适配新业务场景或新数据分布。
- 持久记忆机制可迁移到对话式推荐 Agent:论文中 harness 会积累成功经验(如有效抓取深度)供后续决策参考。在电商导购或客服 Agent 中,可以设计类似的 memory 结构,记录用户偏好、历史成功推荐策略或交互模式,作为额外上下文注入下一次决策,提升个性化与连贯性。
- 失败诊断 + 代码修改的闭环值得复用:用 LLM 分析 rollout 失败原因并生成改进代码,这种「诊断-修订-评估」循环可以用于自动优化推荐系统外围逻辑,例如召回过滤规则、曝光策略、重排规则等,用代码表示策略比调权重更灵活且可解释。
- 工程实现上,harness 与 policy 解耦便于快速实验:将模型调用封装在可控代码层,可以轻量地切换不同底层模型或策略,同时通过 held-out 场景评估泛化,适合在电商推荐中构建可插拔的 Agent 框架。
策略其实受 Harness 秘密约束:Agent 接口的决策几何
🧭 Agent 接口设计与策略学习
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
训练策略会带上训练 harness 的偏好,部署收益可分解为接口天花板减策略偏差,固定模型评估接口会混淆两者
📌 工作参考价值(4 点)
- 在评估 prompt / 工具 / 工作流改动时,别只拿固定模型 A/B 测试,应把表现拆成 ceiling(接口天花板)和 mismatch(当前策略偏差)。可以用一个更强的模型(如 GPT-4 或更大开源模型)近似最优策略来估计 ceiling,再用当前模型算 mismatch,从而预测改动后重新训练/微调能带来的真实收益。
- 如果接口只是格式变化(比如 prompt 字段顺序、工具描述顺序)而最优动作理论上不变,已微调的策略可能大幅失效(MiniWoB++ 里反转字段顺序让成功率从 85.0% 跌到 19.2%)。这提醒我们:对 LLM 做领域微调时,训练 harness 的格式偏好会被固化,上线接口改动前要重新校准,或者在训练数据里加入字段排序、模板扰动等增强来提高鲁棒性。
- 自动 prompt 优化工具(如 DSPy、TextGrad)常用固定模型给候选 prompt 打分,可能只选出当前模型更擅长的表达方式,而不是真正提高任务上限的接口。建议在候选 harness 搜索中引入更强模型作为 oracle 评估 ceiling,避免陷入对当前模型的过拟合。
- 在设计推荐/搜索 Agent 的工具调用接口、提示词模板时,接口本身的易用性和信息完整性(高 ceiling)可能比当前模型一次性表现更重要,尤其是计划后续用业务数据继续训练模型时。
HarnessMM:通过守卫决策复用与递归自改进提升 Agent 工具链 Token 效率
🧭 Agent 工具链推理复用与配置自改进
Tsinghua University · Microsoft Research Asia
用守卫决策复用替换工具反馈后的重复推理回调,不改模型权重即可降低Agent harness token成本
📌 工作参考价值(3 点)
- 在电商/导购类 Agent 中,工具返回收据后若满足预设 guard(如价格、库存未变),直接用缓存的动作参数继续执行,避免重复调用 LLM;把“已解析的工具调用”做成可执行决策图,存字面参数与依赖,工程上可大幅省 token。
- 引入 Certified Callback Substitution:在模型-工具边界注册回调替换时,保留原生接口并记录删除慢回调,新语义或证据不足就回退原模型,实践中保障效果不下降。
- 借鉴 RSI:固定模型权重,用训练/评估反馈迭代优化 harness 配置(守卫阈值、缓存策略),验证集选优,能以低成本对线上 agent 配置做自动调参。
面向对象 Harness:用继承与路由进化 Agent 执行框架
🧭 Agent harness 分层进化与路由 ★ 深度解读
University of Illinois Urbana-Champaign · Google Cloud AI Research
用继承构建可复用 harness 类并基于执行轨迹路由,三基准最高提升15.79个百分点
📌 工作参考价值(4 点)
- 面向 Agent 工作流:不要用单一 global harness/prompt 硬扛所有场景。把 harness 代码按业务任务聚类做子类继承,公共能力留在父类,差异用 override/add method,回归风险更小、维护更清晰。
- 路由时同时输入 task metadata 和观测到的 base 执行轨迹(工具调用、错误模式、输出格式),并沉淀 routing lessons;在 AutomationBench 这类跨域执行中,轨迹信息可带来 12.64 点提升,比仅看任务描述更可靠。
- 保留 base harness 作为兜底,路由不确定或 OOD 任务直接复用 base 结果,避免强制用不合适的 specialist;论文中 OOD 场景下 Base 复用保持 59.18 PASS,而 global harness 降到 44.90。
- 训练/搜索效率:只在该任务簇上评估候选 harness,不必 rerun 整个发现集;可作为 LLM agent 自动化调参的工程优化,显著降低 API 成本(论文中搜索时长 29h vs 109h)。
长程终端智能体的 Harness 自进化框架
🧭 Agent 执行脚手架自优化
Tencent HY LLM Frontier · Indiana University · University of Maryland, College Park · University of Georgia · National University of Singapore
固定模型权重,通过成功/失败对照轨迹与运行时监控证据迭代改进 agent harness,提升任务可靠性与成功率
📌 工作参考价值(4 点)
- 建立 agent 运行时监控,不只记录模型轨迹,还记录 harness 执行事件(命令执行、反馈、上下文裁剪、完成判定),与任务成败标签关联,定位系统性问题。
- 选取“同一配置下既有成功又有失败”的任务作为诊断单元,用成功轨迹作免费参考,无需人工标注即可发现可靠性缺口。
- 维护一份 Harness Handbook,把失败证据映射到源码与行为,便于跨任务复用问题模式;优先优化共享机制而非单点 patch。
- 引入候选 harness 变更前先做行为校验和重复评测,通过后再迭代;固定模型权重、只改执行层,对生产系统风险更低。
训练整个 Agent:策略与 Harness 联合进化
🧭 Agent 训练 · RL 联合优化工具/hooks
Zhejiang University · LIGHTSPEED · Independent Researcher
HarnessAdapt-RL 在强化学习中同时训练策略模型与工具/hooks,显著提升 coding agent 的 pass@1
📌 工作参考价值(4 点)
- 搜索/推荐 Agent 训练不应只更新 LLM 参数,可将工具描述、hooks、检索接口等视为可学习组件,在 RL 中与策略共同迭代;尤其适合电商 Agent 中 API 调用、query 改写、商品召回等工具链的联合优化。
- 借鉴其变更接受条件:每个工具/hook 变更只有在离线评估中提升 pass rate 或可训练率且不降低另一方才保留。业务上可对应“商详页点击率/转化率提升,同时训练样本有效率不下降”的门控机制。
- 任务特定的机制级技能可由 frozen teacher 生成,训练时注入引导,上线前移除,降低部署复杂度,同时保留策略泛化增益;适合将专家规则或人工 SOP 转化为训练期辅助信号。
- 对反复出现的交互问题(如失败重试、上下文截断、工具返回格式错误)可进化 tools/hooks 而非硬编码,并让策略学习与新 harness 协调,避免过早冻结早期版本的优化陷阱。
HarnessPro:面向性能-成本权衡的递归 Harness 自改进
🧭 Agent harness 多目标自进化 ★ 深度解读
Tsinghua University · Z.AI Co., Ltd. · Shanghai Jiao Tong University · University of Warwick · Kuaishou Technology
多智能体递归改进 agent harness,用 Pareto 选择产出 lite/medium/heavy 三档,同时提升 pass rate 并降低执行成本
📌 工作参考价值(4 点)
- 用固定 LLM 生成测试替代 LLM judge 评估候选轨迹:在无 ground-truth 的 agent 优化中,失败召回从 41.7% 提升到 83.3%。做电商导购/客服 agent 的 harness 或 prompt 迭代时,先基于任务描述和初始轨迹生成回归测试,后续所有候选用同一套测试,避免 LLM 判断过度乐观。
- 产出 Pareto 前沿而非单一最优:用 normalized weighted squared-distance 按 (1,2)/(1,1)/(2,1) 选 lite/medium/heavy 三档,分别对应严格成本、均衡、性能优先部署。线上可按预算分流:大促期切 lite,日常用 medium,高价值场景用 heavy。
- 动态 routing + budget hooks 是降本关键:从任务描述选择 reasoning effort 和 tool call 预算,达到阈值后通过 hook 提醒收敛或阻断额外调用;比全局降低 reasoning effort 更能保住 pass rate,适合在推荐/搜索 agent 中按 query 难度分档执行。
- 压缩工具输出和精简 system prompt,保留 prefix 缓存:用类似 RTK 的日志折叠/长输出压缩减少重复上下文 token,是低成本但有效的工程优化。
MuninAI:面向独立研究组的自托管智能体文献问答框架
🧭 Agent 科学文献问答 · RAG 工具编排
Institute for Drug Discovery, Leipzig University Medical School · Institute for Medical Physics and Biophysics, Leipzig University Medical School · Integrative Center for Bioinformatics, Leipzig University · Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) · School of Embedded Composite Artificial Intelligence (SECAI)
开源自托管 Agent 框架将开放权重模型与检索、阅读、计算工具编排,使文献问答准确率翻倍且几乎不产生幻觉
📌 工作参考价值(4 点)
- 工具编排优先于换模型:在商品知识库问答、广告素材核查、客服辅助等场景,先设计 reading/search/computation 工具与 agent harness,而不是直接换更大模型;评测时固定 backbone,对比 naive RAG 与 harness 的差距。
- 引入 citation/relation graph:将商品关系、内容引用、品牌-属性等构建成可检索的 graph,供 agent 多跳导航;要求每个答案声明可溯源,降低生成式推荐中的虚构商品 ID 或属性风险。
- 主动弃权机制:当知识库缺少对应商品、属性、政策时让系统返回“未知/不提供”,避免生成式推荐编造价格、卖点或库存;可设置证据缺失阈值来触发弃权。
- 自托管与单卡基线:对未公开的选品、竞价、用户数据,可选用开源 20B 级模型本地部署;发布一键评测脚本,在自己的语料和模型上重跑,作为上线门槛。
Learn2Play Bench:评估 LLM Agent 在陌生环境从经验学习的能力
🧭 LLM Agent 经验学习评估基准
National University of Singapore
设计新文本游戏基准 Learn2Play Bench,揭示保留完整交互轨迹优于总结规则、改变 harness 可提升性能并降本
📌 工作参考价值(4 点)
- 在电商客服、导购、自动谈判等 Agent 场景中,优先保留完整的动作-反馈交互轨迹作为后续决策上下文,而不是仅让 LLM 总结成规则或策略;原始轨迹能保留更多细节,有助于更有效的经验学习。
- 固定 LLM 骨干模型后,优先优化 Agent harness(状态管理、观察剪枝、动作选择器、循环控制等)可能比微调模型更划算:论文显示更换 harness 可同时提升性能并降低推理成本,对业务降本增效有直接借鉴意义。
- 评估 Agent 上线前的学习/适应能力时,应设计规则新颖或反直觉的任务,避免模型利用预训练知识掩盖交互学习不足;同时通过变化游戏实例测试泛化,类似电商场景中的新品类、新活动规则快速适应测试。
- 人类玩家策略多样性显著高于 Agent,且重复动作更少,提示在 Agent 探索机制中可引入多策略采样、多样性正则或 epsilon-greedy,避免过早陷入局部策略,对复杂对话和推荐交互尤其有用。
Mingbird:本地优先 Agent 框架让小型开源模型完成真实任务
🧭 Agent harness 本地小模型任务执行优化
University of Science and Technology Beijing · Honor Device Co., Ltd.
Mingbird 通过十项机制补偿小模型故障,在 LRAB 与 τ²-bench 上显著超过 goose/opencode/agent-mini
📌 工作参考价值(4 点)
- 小模型做工具调用时,优先治理 prefill 预算而非只靠模型截断:可把工具 schema 压缩到字节级配额,尤其适合端侧或低延迟搜索推荐 Agent。
- 在 Agent 完成提交前增加“重读任务/用户 query”的 finish gate,能减少静默放弃与提前结束;可用于多轮 query 改写、推荐解释生成等需可靠终止信号的场景。
- 采用签名级 loop detection 监控工具调用序列(函数名+参数模式),而不是文本相似度,能更快终止无效循环,节省 token 与延迟。
- 若业务有隐私或成本限制,可考虑 2-9B 本地模型 + 强 harness 做降级链路,通过工程补偿换取小模型可用的任务完成率,而非直接升级大模型。
让 harness 成长而非上下文:从无策略脚手架到可复用专家智能体
🧭 Agent harness 自动增长优化 ★ 深度解读
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Shenzhen University of Advanced Technology · University of Macau
通过任务反馈把重复控制固化为可执行代码,LLM仅做语义推理,实现低成本高成功率Agent
📌 工作参考价值(4 点)
- 把高频控制路径(query 改写、结果校验、状态机流转、停止条件、重试策略)从 prompt/上下文固化到代码,LLM 只负责语义比较和最终生成;对电商搜索 Agent、客服 Agent 等高频请求场景,可显著降低单次 token 与成本。
- 建立 function-level trace 和失败窗口:线上失败日志关联到具体函数,优化器只修改被 trace 覆盖的有限代码面,避免全量重写;这能形成可维护的“局部重训练”工程闭环。
- 引入 held-out gate 与 checkpoint 回滚:每个修复候选必须在固定验证集上不降低成功率才接受,防止修复当前 case 导致历史能力退化;持续优化推荐策略或 Agent 逻辑时尤其关键。
- 小模型部署友好:将可复用控制移到代码后,4B 模型在 WebArena-Verified 上成功率达到 45.3%,而 Tool-Calling 只有 6.7%;端侧或低成本电商/搜索 Agent 可优先采用代码 harness 而非依赖大模型在线规划。
RRSI:Agent 外壳的正则化递归自改进
🧭 Agent 自改进正则化 · harness 进化 ★ 深度解读
Google Cloud AI Research · UNC-Chapel Hill · Stanford University · Washington University in St. Louis
用 proposal 与 selection 两侧正则化约束 Agent harness 自改进,缓解在有限 evolve set 上的过拟合
📌 工作参考价值(4 点)
- 在电商搜索/推荐 Agent 或购物助手做自动化 prompt、tool description、context 管理的 A/B 调优时,很容易在内部小评测集上过拟合。可复用 RRSI 的 leakage screening:评估前先用 critic 过滤掉显式包含 task name、商品名、类目特定逻辑或实体值的候选,防止这类候选靠局部泄漏获得高 evolve score 进入后续搜索。
- 引入 noise band 接受 floor:先在固定 base harness 上重复评估估计噪声 δ,候选分数必须 ≥ S*-δ 才允许替换 incumbent。这能避免在搜索/推荐 Agent 的策略迭代中,把随机噪声冠军当成稳定改进永久写入系统。
- cost-aware acceptance 对生产很有用:任何候选若增加 policy tokens(例如更长的 few-shot 示例、更多 tool schema 字段、额外 context 读取),必须用 ΔC ≤ β0 + β1 ΔS 证明收益。可以直接迁移到线上成本约束的推荐 Agent 或 LLM 链路,避免演进结果越来越贵但得分不涨。
- 结构化探索和 evidence-aware history 可以复用到 query 改写策略、召回 prompt、排序 Agent workflow 的自动搜索:记录每轮修改的组件、假设和验证结果,停滞时优先探索从未改过的组件(如 control flow / context 管理而非继续改 prompt)。另外可加一个跨模型验证步骤:搜索得到的 harness 若不随 backbone 能力消失,才更像可复用机制而非策略专属补丁。
SoL-Pi:递归扩展自动研究循环,打造高效 Agent Harness
🧭 Agent harness 层 token 效率优化
NVIDIA · NTU · MIT
在 harness 层递归搜索自动研究循环,保留四种 token 效率机制,性能不变但成本降约三分之一
📌 工作参考价值(4 点)
- 上下文压缩可迁移到多轮推荐 Agent:Online Context Compact 与 Evidence-Preserving Reducer 的思路能直接用于电商对话推荐或搜索 Agent 的长对话历史管理,保留关键商品/用户意图证据,削减冗余交互,降低推理 token 与延迟。
- Action Fusion 减少工具调用开销:在 Agent 需要多次调用商品检索、库存查询、价格比较等 API 时,将多个小操作合并为一次批量执行,可以显著减少重复上下文注入,节省成本;对广告投放 Agent 的多步出价查询也有参考价值。
- ObservationPack 打包观测结果:让 Agent 一次接收多个工具返回的结构化摘要而非逐条处理,可以提升上下文利用率,适合高吞吐的搜索/推荐实时决策场景。
- 递归自我改进的 harness 搜索思想:可以在业务 Agent 流水线上自动探索 token 效率优化配置(如提示压缩、工具调用顺序),用离线环境评估成本与效果,实现自动降本,不必手工调优。
HarnessVLN:统一免训练具身导航的 Agent Harness 框架
🧭 具身导航 · 训练免 Agent 框架
Nanjing University · AGIBOT · Tsinghua University
提出训练免的 Agent Harness 框架,通过统一工具接口、三重验证与时空图记忆,统一指令跟随与物体目标导航并刷新 SOTA
📌 工作参考价值(4 点)
- 统一工具接口与 Harness 分层:将感知、检索、接地、执行等封装为工具,由 Harness 统一校验、派发、更新,可复用到电商 Agent 中,把商品召回、意图识别、策略执行等模块解耦为工具,降低切换模型/场景的成本。
- 规划结果的多重验证:在派发动作前用空间证据、几何可行性、子目标一致性做校验,可借鉴到搜索广告投放 Agent:对出价、选品、文案等 proposal 做规则/模型校验,减少无效执行与资源浪费。
- 分层事件记忆与持久时空图:将任务进度、执行历史、失败标注沉淀为结构化图,类似用户 session 内的行为轨迹 + 商品关系图,可用于推荐/对话 Agent 的状态追踪、失败恢复与增量证据累积。
- 可替换 Navigation Executor:把高层计划与底层执行解耦,同一 Harness 协议可跨模拟器与真机迁移,可借鉴到推荐实验平台:策略层统一,执行层适配不同流量/线上环境。
LLM 能否创建并演化自己的 Agent 执行框架?
🧭 Agent 基础设施自动构建与演化评测
ByteDance Seed · Singapore University of Technology and Design · Georgia Institute of Technology · M-A-P · TokenWave.AI
HarnessDev 基准评估 LLM 从零构建并迭代优化 Agent 执行基础设施的能力,发现领域差异大且跨模型迁移受限
📌 工作参考价值(4 点)
- 把 agent harness 当作与模型权重同等重要的优化变量:在电商搜索/推荐 Agent 中,执行循环、工具选择、上下文管理、失败恢复等基础设施设计可直接改变下游任务成功率和 token 成本,建议建立 harness 级 A/B 评测,而不是只换模型或调 prompt。
- 借鉴 Creation/Evolution 两阶段范式:可尝试用强 LLM 基于少量示例自动生成 RAG/推荐 Agent 的执行代码,但必须在 held-out 任务上验证,防止只在开发集上过拟合;对代码、搜索等复杂领域,自动生成 harness 仍落后于人工参考,不要盲目全自动替换。
- 重视执行效率:论文中生成 harness 的执行 token 成本差异很大,实际业务中可把 token 成本作为约束纳入 harness 优化目标,避免高性能但高成本的 harness 上线。
- 注意跨模型迁移性:如果 harness 是为某个 runtime 模型优化得到的,换用其他 LLM 后性能增益可能消失。在多模型混合部署的推荐/搜索服务中,需要按模型或模型族分别评估和调优 harness。
EvoUndo:LLM Agent 自进化的可恢复性约束框架
🧭 LLM Agent 自进化安全与恢复性验证 ★ 深度解读
Independent Researcher
提出 EvoUndo,将 witness 捕获、反事实验证、效应合约与分层恢复语言结合,使 LLM 自修改 harness 可验证回滚
📌 工作参考价值(4 点)
- 给业务里的自进化 Agent(自动改 prompt、改工具注册、改配置、改中间件)增加恢复性验证:每个 mutation 必须同时提交 witness capture 和 recovery program,并用 counterfactual states 做 round-trip 验证,不能只看 forward capability 提升。
- 把 effect contract 和运行时副作用 diff 引入 admission:未声明副作用直接拒绝,可防止自动修改静默污染线上状态;这对广告/电商 Agent 的配置、路由、工具热更新尤其有用。
- 恢复语言分层设计:L0 覆盖配置/prompt/路由/工具,L1 增加中间件顺序、listener、文件、socket 等结构化状态;诊断粒度不必越细越好——语言受限时给精确 state address 很关键,语言丰富时粗分类反馈在 gpt-oss-120b 上反而更优,可避免过度分解和序列倒置。
- 用 Wilson score LCB 作为小样本准入门槛,并隔离 hidden counterfactual 状态;发展集 OOD 增强会把误收率从 16.8% 压到 0%,但会损失约 15pp yield,需要在 precision-coverage 间显式权衡。
更智能验证,更深远进化:通过行为感知验证实现高效 Harness 进化
🧭 Agent 自进化 · 行为感知验证 ★ 深度解读
School of Data Science, Fudan University · Shanghai Key Laboratory of Data Science · College of Computer Science and Artificial Intelligence, Fudan University
提出预算感知的 HARNESSLENS 框架,用行为相关任务和可归因证据门控筛选候选修改,显著提升 harness 进化样本效率
📌 工作参考价值(4 点)
- 评估候选修改时,不要用固定验证集评估所有候选;根据候选意图选择相关任务(supporting trajectories + 相关目标/工具),使信号不被无关任务稀释,回归检测更敏感。
- 采用可归因证据门控:要求观察到的改进能归因到具体行为变化(如 recovered / stable success),仅聚合指标提升不足以接受修改,避免噪声导致接受有害修改。
- 预算感知控制器:设定总交互预算,每次迭代前检查是否能覆盖完整验证+确认轮次,否则停止,避免评估不充分。
- 轨迹诊断与经验复用:把每次 rollout 轨迹转化为可复用经验和缺陷,支持后续候选生成和验证,提高样本效率。
JIT-Agent:以即时 Harness 演化扩展智能体框架智能
🧭 Agent harness 即时生成与演化 ★ 深度解读
LV-NUS Lab
训练 27B 元模型按任务即时生成/修复/演化 agent harness,使普通骨干模型超越更强基线与固定运行时
📌 工作参考价值(4 点)
- 把推荐/搜索 Agent 的执行框架拆成可生成模块:将 memory、planning、action、capability orchestration 四个模块协议化,用一个轻量 meta 模型按任务动态生成 harness,比固定 pipeline 更适配电商场景中深度研究、购物规划、多工具协同等异构任务。
- 三阶段训练闭环可直接复用:先用专家生成合法 harness 做 SFT+偏好对齐,再用失败修复轨迹教模型快速修 bug,最后用 Evo-GDPO 以历史最优为基线做在线偏好优化,保证 reward 提升同时不牺牲 latency/cost。
- 用“reward 提升且效率不退化”硬约束筛选候选:偏好函数同时考虑 reward、latency、cost,避免靠堆 token 换分数;实验显示 JIT harness 在性能提升的同时 token 成本平均降 36%,适合成本敏感的电商/广告 Agent 系统。
- 引入 streaming archive 实现无参数持续进化:线上任务执行后,只有突破 frontier 的 harness 才写入银行,后续任务检索相关历史 harness 作为参考。这种轻量记忆库可迁移为搜索推荐 Agent 的跨任务经验积累。
递归式经验-工作记忆演化:面向长程 Agent 的验证门控记忆架构
🧭 Agent 长期记忆与递归自改进 ★ 深度解读
NUS · Stanford University · University of Oxford · Princeton University
Recuris 用工作记忆驱动技能调用,将失败定位到记忆组件并验证门控演化,在长程任务上提升成功率
📌 工作参考价值(4 点)
- 长程电商/客服 Agent 的状态管理:把会话目标拆成 pending/done/blocked 的 verified state,每个 goal 带支持证据;只在执行事件(如确认下单、改地址、退款调用前)由 harness 注入对应技能,而不是把全量 SOP 或工具说明放 prompt。全量注入在本实验中反而比无技能更差(模型控制 65.6 vs 无技能 82.0),说明“何时调用”比“内容多少”更关键。
- 失败复盘与技能库更新:记录结构化 trace(状态→调用技能→动作→环境反馈→提案状态→检查器判定),用固定 Meta-Agent 把失败归因到技能缺失、状态更新错、调用时机错、校验器误判四类组件;只修补命中组件,再经 held-out 验证门控。可以迁移到 agent 评测流水线或 SOP 迭代,避免全量重写记忆。
- 验证门控的必要性:候选补丁必须在修复源失败的同时不回归 anchor tasks。电商技能库更新时也建议保留历史成功案例作为回归集,避免新规则破坏已有能力。
- Test-time adaptation:对高价值单任务(如大订单异常、投诉处理)可用多次尝试 + 一位 verifier 的反馈,在局部更新经验记忆后重试;但一定要与 budget-matched 简单重试对照,否则会混淆增益来源。
Harness 持续学习:冻结模型下 Agent 外部状态的持续进化
🧭 Agent 持续学习 · Harness 进化 ★ 深度解读
State Key Laboratory for Novel Software Technology, Nanjing University, China · University of Wollongong, Australia
将持续学习对象从模型参数转向 Agent 外部 harness,通过 guarded evolution 显式控制 harness-level 遗忘
📌 工作参考价值(1 点)
- 在 Agent 系统中引入 guarded evolution:将 harness 更新(prompt、memory、routing 等)与部署分离,设置历史锚点集(anchor set)作为回归测试,只有通过当前改进、历史保留和有效性检查的新配置才上线,避免线上行为退化。\n- 借鉴四组件设计:Task Interface, Experience Memory, Capability Map, Adaptive Router 可以映射到电商/搜索推荐系统的 Agent 编排层,把用户意图解析、历史交互记忆、可用工具/策略注册、决策路由分开管理,便于持续迭代和故障定位。\n- 通过调节 historical-loss tolerance Bn 控制稳定性-可塑性权衡:在大促等需要快速适应新玩法时放宽 Bn,在稳定期收紧,实现业务节奏的灵活控制,而不是一味追求最新任务的最优。\n- 利用 LLM 从原始交互中总结抽象记忆、再提炼为可复用内部技能(inner skills),可迁移到自动从用户反馈中提炼推荐策略、生成推送文案或 query 推荐模板,形成持续进化的策略库。
ClawGym II:在 Agent Harness 上探索黑盒强化学习
🧭 Agent 黑盒 RL 训练 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · IQuest Research
提出统一黑盒 RL 框架,通过不透明 harness 稳定规模化优化通用 Agent,并支持混合 harness 联合训练
📌 工作参考价值(4 点)
- 把生产 harness 直接当 rollout engine,而不是重写 agent loop:电商/广告/搜索推荐中的 Agent 常运行在复杂编排系统里,重写会丢失上下文管理、重试、工具调度等关键行为。可以在模型服务边界加 proxy 拦截所有模型调用,以 token-in-token-out 记录真实推理轨迹,再拿去做 RL 训练,避免训练-推理不一致。
- 用 prefix tree 恢复分叉、去重的多轮轨迹:同一 rollout 可能因 compaction、subagent、重试产生大量共享历史。组织成前缀树后,只优化 main trajectories,过滤 dead leaves 和过分支 rollout,能显著降低噪声、提升训练效率;推荐/搜索 Agent 的多轮交互同理适用于这种树结构消重。
- 引入 token-level importance sampling 校正 rollout 与训练引擎概率差异:训练和推理引擎即使同一模型也可能因数值精度、并行方式产生 log-prob 偏差,直接优化会带 off-policy 噪声。加一个截断的 token 级 IS ratio 是低成本、易迁移的稳定性 trick。
- mix-harness 训练可提升跨执行系统泛化:如果业务中同一策略会跑在不同工具接口、不同上下文管理或不同编排系统上,可把同一 task 与多个 harness 配对,按 task-harness pair 做分组 advantage 归一化,再联合梯度更新,避免策略过度绑定单一系统。
分层自改进:任务专用可进化 Agent Harness 框架
🧭 Agent 分层自改进与 harness 进化 ★ 深度解读
HKUST
单个冻结 LLM 通过任务 harness、evolver、meta-evolver 三层自改进,在 BALROG 上实现显著提升并揭示能力边界
📌 工作参考价值(4 点)
- 把 agent scaffold 当可进化资产:在电商/搜索推荐 Agent 中,不要只调 prompt;把 prompt、tool 编排、memory、state tracking、验证逻辑打包成 task-specific harness,按任务族(如导购、query 改写、push 文案)分别维护,并通过固定 using_harness 接口热更新。模型权重保持冻结,避免每次策略调整都重训或换模型。
- 评估 harness 迭代要防过拟合和高方差:用 held-out 任务 split 而不是全量同一批任务评估;候选版本用 LCB reward(μ - 0.5·σ/√n)排序,允许保留多分支 commit pool,最终用 validation 选择泛化最优版本。这可比直接选单次最高分可靠得多。
- 把“怎么改 harness”也变成可学习策略:meta-evolver 不是直接改任务表现,而是改 seed 选择、explore/exploit、commit 规则。对应到搜索/推荐 Agent,可以把人工的“何时探索新品/何时重启策略/如何维护版本档案”作为上层可优化策略,而不是硬编码。
- 先判断两个边界再投入:如果模型在任务上初始 reward 近零或反馈极稀疏,harness 进化收益极低(NLE 案例)。业务上应先确认有非零、可区分的 reward 信号;harness 进化只能放大既有能力,不能替代模型升级。
JarvisHub:画布原生的多模态创作智能体开放框架
🧭 多模态创作智能体架构
JarvisX Team
将可编辑画布作为智能体的记忆、动作空间与共享项目状态,支持长程多模态创作中的持续规划、生成、修订与人工干预。
📌 工作参考价值(3 点)
- 本工作在电商/推荐领域直接应用价值有限,主要面向创意生产工具。
- 可借鉴点:将「画布式可编辑状态」抽象用于推荐系统调试(如召回/排序策略的可视化编排与回溯),用节点和链接表示策略版本、AB 实验分支、指标反馈,便于 Agent 辅助调试与人工介入。
- 在 Agent 协作产品中,可参考三层架构(画布状态、协议桥、智能体运行时)将复杂任务状态显式化,提升可解释性与可控性,尤其适合需要多版本素材管理、人工共同决策的场景(如营销文案、商品图生成)。
Harness Handbook:面向Agent框架演化的行为中心可读表示与渐进式代码定位
🧭 Agent harness 行为定位与编辑辅助
Tencent · Indiana University · University of Maryland, College Park · University of Georgia · National University of Singapore
通过静态分析+LLM自动构建行为手册并引导渐进披露,解决Agent harness修改中的行为定位瓶颈
📌 工作参考价值(4 点)
- 维护行为手册辅助搜推系统Agent harness迭代:在电商搜索推荐的多阶段pipeline(召回、粗排、精排、重排)中,Agent harness常跨模块分布,修改一个业务逻辑需定位多处代码。借鉴Harness Handbook思路,可对搜推系统Agent框架做静态分析+LLM结构化,自动生成行为-代码映射表,让开发者快速找到所有相关实现点。
- 用渐进披露降低LLM Agent的规划成本:BGPD从高级行为描述逐步引导到具体代码细节,可迁移到内部代码修改Agent(如用LLM规划代码变更)——先定位行为,再展开实现细节,节省推理token并提高编辑计划准确性。
- 强化行为定位验证机制:在实际的Agent harness变更中,引入对候选代码位置的静态验证,可避免LLM规划阶段产生幻觉导致的错误修改,这对高频迭代的电商大促策略调整很有价值。
- 拥抱行为为中心的文档化自动化:搜推Agent的prompt、工具调用、状态管理常分散在多个文件,可仿照此方法生成可读的“行为手册”,降低新人上手和跨团队协作的成本。
HarnessX:可组合、自适应、可进化的 Agent 运行时脚手架工厂
🧭 Agent 多智体协作优化 ★ 深度解读
Darwin Agent Team
将 Agent 运行时脚手架抽象为一等公民,通过模块化处理器、进化引擎与协同训练实现自动优化,在多基准上平均提升 14.5%
📌 工作参考价值(4 点)
- 模块化处理器架构:将 Agent 行为拆解为上下文组装、工具生态、内存策略、控制流等九维处理器,通过 hook 和替换代数实现可组合、可替换的运行时。电商推荐、对话 Agent 可根据场景(搜索、推荐、售后)快速组装不同的 prompt/工具组合,无需重复开发。
- Trace 驱动的自适应优化:AEGIS 引擎将执行轨迹、验证分数转化为进化信号,自动调整 Agent 的 prompt、工具选择与交互流程。在电商场景中,可将用户反馈(点击、转化)作为 reward,让 Agent 在线自动优化推荐话术、多步检索策略,且通过变体隔离避免多任务间相互干扰。
- 跨策略版本协同训练:利用不同脚手架版本产生的轨迹进行 GRPO 训练,任务级分组计算 group-relative advantage,让模型内化多种策略的优点。可用于训练电商 Agent 从混合策略数据(如不同召回/排序规则)中学习最优决策,突破固定策略的限制。
- 共享回放缓冲区的经济性:Harness 进化与模型训练复用同一批 rollout 轨迹,仅增加一次前向缓存和梯度计算,无额外环境交互成本。对于需要频繁迭代的线上 Agent 系统,该方法以较低算力开销实现智能化升级。
MOSS:通过源码自改写实现自治Agent系统的自我进化
🧭 自进化Agent · 源码级重写 · 生产部署 ★ 深度解读
University of Science and Technology of China · The Hong Kong University of Science and Technology · Hong Kong Baptist University
让生产级agent系统通过源码自改写自主修复harness层故障,平均评分从0.25升至0.61
📌 工作参考价值(4 点)
- 生产Agent的自我修复机制:业务中大量使用的agent系统(如电商客服、订单助手)常常因路由/状态管理/hook顺序等harness层bug导致重复故障,MOSS提供了定向进化方案:从用户会话中自动检测失败片段,驱动源码级修复,而非仅修改prompt或技能文件。
- 进化与业务部署的结合:MOSS将进化流程与生产环境深度耦合:基于真实故障批次进行修复、在临时容器中回放原任务验证补丁、通过用户授权后进行容器热替换且支持健康探针回滚,可直接借鉴到需要高可用agent服务的场景。
- 多阶段pipeline与外部代码工具解耦:采用标准化七阶段(定位、规划、规划审查、实现、代码审查、任务评估、裁决),并将实际编码委托给可插拔的coding-agent CLI(如Claude Code、OpenAI Codex),降低了与具体LLM的耦合,可在自身系统中按需替换代码生成后端。
- 运行时验证代替单元测试:在临时容器中运行agent与真实任务交互来验证修复效果,而不是靠单元测试,这对动态、交互式的agent行为验证更为有效,适合推荐系统、对话agent等需要端到端行为验证的场景。
将代理技能升级为可执行程序函数:HASP 框架
🧭 Agent 技能可执行化 · Program Function ★ 深度解读
New York University · Salesforce AI Research
把 LLM Agent 的已知技能从被动文本变为可触发、可干预状态-动作的 Program Functions,实现推理时修正、后训练监督与技能库自进化。
📌 工作参考价值(4 点)
- 推理时动作硬修正:将常见失败模式(如过早终止、实体混淆)编码为 Program Function,在 Agent 循环中直接改写动作或注入纠正上下文,而不是只放入 Prompt 作为建议。这一思路可直接用于电商搜索 Agent 的多步推理,例如当检测到搜索结果过少时强制改写 Query,或在提交订单前强制检查库存。
- 结构化干预信号用于数据筛选:每个 PF 介入记录包含时机、模式、正确性、结果四维评分,作为轨迹质量权重叠加在任务奖励上。在构建离线对话或搜索轨迹数据时,可借鉴这种多维质量打分,提升 SFT/拒绝采样数据的有效性。
- 技能库演化需严格过滤:候选 PF 必须通过语法与模拟执行验证及教师审核才能入库,否则会严重损害性能(全过滤 60.3% vs 无过滤 36.3%)。在业务中构建可进化的策略库或规则库时,必须设计类似的自动化校验与人工审核门槛,避免技能“污染”。
- 内部化行为纠正 PF 更有效:训练后,那些纠正模型自身行为(如搜索不充分、查询过长)的 PF 会逐渐沉默,而与输入相关的 PF 仍激活。这提示我们可以有选择地只对高频行为错误进行强制干预,并进行针对性训练来内化,从而降低上线时的判断开销。